We introduce an information-maximization approach for the Generalized Category Discovery (GCD) problem. Specifically, we explore a parametric family of loss functions evaluating the mutual information between the features and the labels, and find automatically the one that maximizes the predictive performances. Furthermore, we introduce the Elbow Maximum Centroid-Shift (EMaCS) technique, which estimates the number of classes in the unlabeled set. We report comprehensive experiments, which show that our mutual information-based approach (MIB) is both versatile and highly competitive under various GCD scenarios. The gap between the proposed approach and the existing methods is significant, more so when dealing with fine-grained classification problems. Our code: \url{https://github.com/fchiaroni/Mutual-Information-Based-GCD}.

我们探索了深度神经网络的软磁预测的聚类，并引入了一种新型的概率聚类方法，称为k-sbetas。在聚类分布的一般环境中，现有方法着重于探索针对单纯形数据（例如KL Divergence）量身定制的失真度量，作为标准欧几里得距离的替代方法。我们提供了聚类分布的一般观点，该观点强调，基于失真的方法的统计模型可能不够描述。取而代之的是，我们优化了一个可混合变量的目标，该目标测量了每个集群中数据的一致性与引入的SBETA密度函数，其参数受到约束并与二进制分配变量共同估​​算。我们的多功能公式近似于用于建模群集数据的各种参数密度，并使能够控制群集平衡偏置。这会产生高度竞争性的性能，以在各种情况下进行有效无监督的黑盒预测调整，包括一声分类和实时的无监督域适应道路，以进行道路分割。实施可在https://github.com/fchiaroni/clustering_softmax_predictions上获得。

There has been significant progress in developing neural network architectures that both achieve high predictive performance and that also achieve high application-level inference throughput (e.g., frames per second). Another metric of increasing importance is GPU utilization during inference: the measurement of how well a deployed neural network uses the computational capabilities of the GPU on which it runs. Achieving high GPU utilization is critical to increasing application-level throughput and ensuring a good return on investment for deploying GPUs. This paper analyzes the GPU utilization of convolutional neural network (CNN) inference. We first survey the GPU utilization of CNNs to show that there is room to improve the GPU utilization of many of these CNNs. We then investigate the GPU utilization of networks within a neural architecture search (NAS) search space, and explore how using GPU utilization as a metric could potentially be used to accelerate NAS itself. Our study makes the case that there is room to improve the inference-time GPU utilization of CNNs and that knowledge of GPU utilization has the potential to benefit even applications that do not target utilization itself. We hope that the results of this study will spur future innovation in designing GPU-efficient neural networks.

Researchers produce thousands of scholarly documents containing valuable technical knowledge. The community faces the laborious task of reading these documents to identify, extract, and synthesize information. To automate information gathering, document-level question answering (QA) offers a flexible framework where human-posed questions can be adapted to extract diverse knowledge. Finetuning QA systems requires access to labeled data (tuples of context, question and answer). However, data curation for document QA is uniquely challenging because the context (i.e. answer evidence passage) needs to be retrieved from potentially long, ill-formatted documents. Existing QA datasets sidestep this challenge by providing short, well-defined contexts that are unrealistic in real-world applications. We present a three-stage document QA approach: (1) text extraction from PDF; (2) evidence retrieval from extracted texts to form well-posed contexts; (3) QA to extract knowledge from contexts to return high-quality answers -- extractive, abstractive, or Boolean. Using QASPER for evaluation, our detect-retrieve-comprehend (DRC) system achieves a +7.19 improvement in Answer-F1 over existing baselines while delivering superior context selection. Our results demonstrate that DRC holds tremendous promise as a flexible framework for practical scientific document QA.

道路事故已成为全世界的八项主要死亡原因。这些事故中有很多是由于驾驶员的注意力不集中或由于疲劳而缺乏专注。各种因素导致驾驶员的疲劳。本文考虑了表现出驾驶员疲劳的所有可测量数据，即在车辆可测量数据中表现出的疲劳以及驾驶员的物理和生理数据。这三个主要因素中的每个因素都进一步细分为较小的细节。例如，车辆的数据由从方向盘的角度，偏航角，车道上的位置以及移动时车辆的速度和加速度获得的值组成。驾驶员疲劳检测的本体论知识和规则将集成到智能系统中，以便在检测到危险疲劳水平的第一个迹象时，将警告通知发送给驾驶员。这项工作旨在为安全的道路驾驶做出贡献。

发现预测未来疾病结果的患者特定成像标记可以帮助我们更好地了解疾病进化的个体水平异质性。实际上，可以在医学实践中采用的可以提供数据驱动的个性化标记的深度学习模型。在这项工作中，我们证明了数据驱动的生物标志物发现可以通过反事实综合过程来实现。我们展示了如何使用深层的条件生成模型来扰动基线图像中的局部成像特征，这些图像与特定于受试者的未来疾病进化有关，并导致反事实图像有望具有不同的未来结果。因此，候选生物标志物是由于检查了此过程中受到干扰的一组功能而产生的。通过对大型多扫描仪多中心多发性硬化症（MS）临床试验磁共振成像（MRI）数据集（RRMS）患者数据集（RRMS）患者数据集进行的几项实验，我们证明我们的模型会产生反面的反面事件，并具有成像变化反映了建立的临床标记的特征，可预测人群水平的未来MRI病变活性。其他定性结果表明，我们的模型有可能发现未来活动的新颖和主题的预测标记。

临床单词嵌入在各种生物-NLP问题中广泛使用，作为最先进的特征矢量表示。尽管它们在单词的语义表示方面取得了很大的成功，但由于数据集（可能带有统计和社会偏见），他们受到了培训，因此它们可能表现出性别刻板印象。这项研究分析了三种医学类别的临床嵌入性别偏见：精神障碍，性传播疾病和人格特征。在此范围内，我们分析了两种不同的预训练的嵌入，即（上下文化的）临床 - bert和（非上下文）Biowordvec。我们表明，这两种嵌入都偏向敏感的性别群体，但Biowordvec在这三个类别中表现出比临床 - 伯特的偏见更高。此外，我们的分析表明，临床嵌入对于某些医学术语和疾病的高度偏见，这与医学文献相抵触。拥有如此不基调的关系可能会在使用临床嵌入的下游应用中造成伤害。

在过去的十年中，深度神经网络（DNNS）的规模成倍增长，只剩下那些具有大量基于数据中心的资源的人具有开发和培训此类模型的能力。对于可能只有有限的资源（例如，单个多GPU服务器）的研究人员的长尾巴的主要挑战之一是GPU内存能力与模型大小相比。问题是如此严重，以至于训练大规模DNN模型的内存需求通常可以超过单个服务器上所有可用GPU的总容量；这个问题只会随着不断增长的模型大小的趋势而变得更糟。当前依赖于虚拟化GPU内存的解决方案（通过向CPU内存交换/从CPU内存）会产生过多的交换开销。在本文中，我们提出了一个新的培训框架，和谐和倡导者，重新思考了DNN框架如何安排计算并移动数据以在单个商品服务器上有效地推动培训大规模模型的边界。在各种大型DNN模型中，Harmony能够将交换负载最多减少两个数量级，并在具有虚拟化内存的高度优化基线上获得高达7.6倍的训练吞吐量加速。

为了向农业产业提供基础设施，需要利用先进的技术，如大数据，云和物联网（物联网）;智能农业是一个管理概念，专注于提供跟踪，监控，自动化和分析操作所需的基础设施。要代表从收集的主要数据中提取的知识最重要。本研究介绍了智能农业系统的农业科学框架。知识图表被表示为捕获和执行时空农业数据的推理的格子。

机器学习（ML）型号越来越多地用于高股份应用，可以极大地影响人们的生活。尽管他们使用了，但这些模型有可能在种族，性别或种族的基础上向某些社会群体偏见。许多先前的作品已经尝试通过更新训练数据（预处理），改变模型学习过程（处理）或操纵模型输出（后处理）来减轻这种“模型歧视”。但是，这些作品尚未扩展到多敏感参数和敏感选项（MSPSO）的领域，其中敏感参数是可以歧视（例如竞争）和敏感选项的属性（例如，敏感参数（例如黑色或黑色）白色），从而给他们有限的真实可用性。在公平的前后工作也遭受了精度公平的权衡，这可以防止高度的准确性和公平性。此外，以前的文献未能提供与MSPSO的整体公平度量。在本文中，我们通过（a）通过（a）创建一个名为dualfair的新型偏差减轻技术，并开发可以处理MSPSO的新公平度量（即AWI）的新型偏压减轻技术。最后，我们使用全面的U.S抵押贷款数据集测试我们的新型缓解方法，并显示我们的分类器或公平贷款预测仪，比当前最先进的模型获得更好的公平性和准确性指标。